Năm 1961, khi Ross 18 tuổi, ông gia nhập Không quân Hoa Kỳ và được đưa vào phục vụ với tư cách là kỹ thuật viên hồ sơ y tế. Cuối cùng ông được thăng cấp lên Thượng sĩ, được xem như Trung sĩ hạng nhất tại Căn cứ Không quân Eielson ở Alaska. Đây cũng là lần đầu tiên ông được nhìn thấy tuyết và núi, mà sau đó đã trở thành chủ đề thường thấy trong tác phẩm nghệ thuật của ông. Ông đã rèn giũa kỹ thuật vẽ nhanh của mình để vẽ tranh và bán giữa những đợt nghỉ việc ngắn thường nhật. Việc giữ các vị trí trong quân ngũ đòi hỏi ông phải, theo cách nói của ông, "cương trực" và "hà khắc", "là người đàn ông bắt bạn phải cọ rửa nhà xí, người bắt bạn phải đi ngủ, người quát mắng bạn khi khi bạn đi muộn", Ross đã quyết định rằng nếu ông rời quân ngũ, ông sẽ không bao giờ phải la hét hay gắt gỏng nữa.